$O(3)$ 是由所有保持内积不变或等价的保持 $x_1^2+x_2^2+x_3^2$ 不变的线性变换构成的群. 也称三维旋转群. $O(3)$ 中的元素一一对应到正交矩阵. 因此 $O(3)$ 也可定义为

\[O(3)=\{A\in\mathcal{M}_{3\times 3}(\mathbb{R})\cong\mathbb{R}^{3\times 3}\mid A^T A=I\}.\]

其中 $\mathcal{M}_{3\times 3}(\mathbb{R})$ 是指所有 $3\times 3$ 矩阵的集合, $I$ 指单位矩阵.

易见 $O(3)$ 中的方阵, 其行列式要么是 $+1$, 要么是 $-1$. 前者这样的矩阵所对应的线性变换称为纯旋转(变换)(pure rotation), 其构成的集合记为

\[SO(3)=\{A\in O(3)\mid\det{A}=1\},\]

容易验证它是 $O(3)$ 的一个子群.

后者这样的矩阵所对应的线性变换描述了一个复合变换: 旋转+反射.

酉群 $U(n)$ 定义为:

\[U(n)=\{A\in\mathcal{M}_{3\times 3}(\mathbb{C})\mid A^*A=I_n\},\]

其中 $A^*$ 指矩阵 $A$ 的共轭转置(也叫 Hermitian conjugate), 即 $A^*=\bar{A}^T$, $I_n$ 是 $n$ 阶单位矩阵.

\[SU(n)=\{A\in U(n)\mid \det{A}=1\}.\]